Giganții de inteligență artificială, mai „secretoși” decât ar fi bine pentru omenire. Ce s-a aflat

de: Iulia Kelt
29 10. 2023

Cercetătorii de la Universitatea Stanford au publicat un raport care clasifică cât de transparente sunt modelele de inteligență artificială.

Din păcate, veștile nu sunt bune deloc.

Vezi și: Lucruri uimitoare despre trecutul, prezentul și viitorul inteligenței artificiale: cum ne afectează viețile AI

Ce au descoperit oamenii de știință

Descoperirile de la Stanford Human-Centered Artificial Intelligence (HAI) au fost compilate în Foundation Model Transparency Index și au dat celor 10 modele de AI de vârf un scor dintr-un maxim de 100.

Printre modelele pe care le-a analizat Stanford HAI se numără generatorul de imagini Stable Diffusion, de la Stability AI, Llama 2, de la Meta, și ChatGPT de la OpenAI.

Llama 2, un model de text generativ, a obținut cel mai mare scor, cu un scor de 54 din 100. Cu toate acestea, cercetătorii notează că scorul nu oferă „transparență adecvată”, ceea ce, spun ei, dezvăluie o „lipsă fundamentală de transparență în industria AI.

Stable Diffusion a primit un scor general de 47 la sută, plasându-l pe locul patru pe listă.

Vezi și: Inteligența artificială care ține loc de medic, mai aproape decât crezi. Cât de departe suntem de acel viitor

Scorurile primite de inteligența artificială, destul de triste

Defalcând datele, Stable Diffusion a primit 100% în „Accesul la model”, ceea ce se presupune că setul său de date de antrenament, Laion-5B, este accesibil public cu site-uri web precum Have I Been Trained, permițând fotografilor și altor creatori să vadă dacă imaginile lor au fost incluse in set.

Cu toate acestea, Stable Diffusion a primit 14% în categoria „Impact”, care analizează impactul pe care modelul îl are asupra utilizatorilor săi și politicile care guvernează utilizarea acestuia.

Dar Stable Diffusion nu a fost singurul care a obținut un scor scăzut la categoria „Impact”, The Verge remarcând că niciunul dintre creatorii modelelor nu dezvăluie nicio informație despre impactul tehnologiei asupra societății.

Rishi Bommasani, liderul societății la Centrul Stanford pentru Cercetare a Modelelor Fundației și unul dintre cercetătorii din index, dorește ca indicele să ofere un punct de referință pentru guverne și companii.

Vezi și: Inteligența artificială o va depăși pe cea umană. Când se va întâmpla, predicția unui miliardar japonez din domeniul IT